瓦力游戏

提交需要
*
*

*
*
*
立即提交
点击”立即提交” ,批注我理解并赞成 《瓦力游戏科技隐衷条款》

logo

    产品与服务
    解决规划
    技术支持
    合作发展
    关于瓦力游戏

    申请试用
      高端访谈?瓦力游戏薛恺|当AI有了“身份”:构建“人机智”三位一体的数据安全新范式
      颁布功夫:2026-09-15 阅读次数: 1716 次

      AI大模型与智能体加快落地 ,企业数字化业务持续推动。AI提升效能的同时 ,也突破了原有的数据安全天堑。传统防护侧沉人和系统的静态账号治理 ,面对AI新风险却显得力不从心:天然说话触发的隐性数据查问、多工具链式挪用带来的组合风险、敏感数据表泄至表部模型的管控缝隙 ,都是旧系统覆盖不到的问题。AI已经不只是内容天生工具 ,而是具备接见与执行能力的独立主体 ,安全沉点也从校验模型输出合规 ,转向管控AI齐全行为链路。


      近日 ,本刊编纂与瓦力游戏(以下简称“瓦力游戏”)数据安全产线高级产品总监/产委会主任薛恺进行了互换 ,萦绕AI智能体时期下数据安全的主题挑战、防护架构、市场变动与技术方向发展对话 ,探求从“管账号”转向“管行为”的治理思路 ,分享多智体协同下一体化防护的落地实际 ,助力企业构建适配AI时期的数据安整个系。


      瓦力游戏| 首页 -瓦力出品,必属精品

      薛恺

      薛恺 ,瓦力游戏数据安全产线高级产品总监及产委会主任 ,国际云安全联盟数据安全认证专家(CDSP)。持久深耕数据安全领域 ,全面掌管产品钻延注规划、建设及贸易化 ,具备丰硕的数据安全产品系统设计、平台化建设与行业解决规划经验。专一数据安全一体化、数据安全运营、流动安全、API安全、数据库安全及AI赋能等方向 ,深谙行业趋向、监管要求与企业级安整个系建设蹊径。曾参加多省市区域数据安全一体化建设及沉点项目交付 ,服务政务、金融、医疗等多行业客户。参加多个数据安全有关行业尺度造订 ,持续关注数据安全防护、运营系统、可信数据流通及AI安全等前沿议题。

      近期Gartner颁布2026中国网络安全技术成熟度曲线 ,将“代理型AI网络安全”列为新增技术。赛迪照拂也指出 ,随着人为智能从内容天生走向工作执行 ,AI智能体安全将成为AI规;玫某烈∧芰。从瓦力游戏的观察看 ,这种转变给数据安全带来了哪些新挑战?


      薛恺:AI智能体从“对话天生”演进到“工作执杏妆最主题的变动 ,是AI从“信息处置者”造成了“行动主体”。从前我们会商天生式AI安全 ,更多关注输入了什么、模型回覆了什么;进入AI智能体时期以来 ,真正必要被约束的是AI智能体能代表谁、能接见什么、能挪用什么工具 ,以及最终能执行什么作为。


      这会直接带来几类变动。首先 ,接见主体变了。企衣凤不再只有天然人和利用账号 ,还会大量出现AI智能体、模型服务、MCP服务、插件等新主体。其次 ,接见蹊径变了。传统接见往往是相对固定的“用户—终端—利用—数据” ,而AI智能体味凭据工作动态选择模型、知识库、API、数据库和工具 ,蹊径一时天生 ,甚至会陆续多跳挪用。同时 ,权限的寓意也变了。从前给一个账号授权 ,天堑相对明确;此刻统一个AI智能体可能在分歧工作中代表分歧的人、挪用分歧工具 ,静态授权很难覆盖这种高低文变动。如此一来 ,风险判断必须从单点事务走向全过程。单看一次SQL、一次API挪用或者一次模型输出 ,都可能没有问题 ,但把“谁提议—AI智能体若何理解—挪用了什么—接见了哪些数据—最后输出或执行了什么”串起来 ,风险才真正显露。


      所以AI智能体数据安全不能只做模型输入输出过滤 ,也不能单一复造传统IAM或DLP。安整个系必要起头治理AI的身份、权限、工具、数据接见和行为链路。这也是我们提出“AI资产看得清、AI身份分得清、AI接见管得住、AI风险识得准、AI行为可追忆”的原因。


      传统数据安全重要关注“人”和“系统”两类身份。瓦力游戏今年提出了一个很有意思的新框架——将“智能体身份(AI Identity)”作为独立的风险主体 ,构建“人机智”三位一体的防护系统。为什么要做这样的划分?从技术底层看 ,AI身份的接见行为与传统身份有哪些性质分歧?为什么传统IAM和DLP的防护逻辑无法直接套用?


      薛恺:瓦力游戏把身份拆成人类身份(HI)、非人类身份(NHI)、智能体身份(AII) ,并不是为了增长一个新名词 ,而是由于这三类主体的行为逻辑的确分歧。

      人类身份(HI) ,主题特点是“人直接做决定”?⑷嗽薄⒅卫碓薄⒈戆嗽钡仍惫ざ加邢喽悦魅返淖橹槭簟⒏谖恢霸鸷驮鹑沃魈 ,好多安全节造都能够萦绕人、角色和岗位发展。


      非人类身份(NHI) ,蕴含服务账号、API Key、Token、剧本和利用账号。它们不是天然人 ,但行为通常由法式规定驱动 ,挪用频率更高、持续功夫更长 ,重要问题是凭证泄露、权限过大、持久无人治理。


      智能体身份(AII)则分歧 ,AI智能体具备感知、推理、规划、工具挪用和工作执行能力 ,它不是单一依照固定剧本逐条执行 ,而是可能凭据高低文沉新选择蹊径、拆分工作、组合工具。这种“工作驱动的动态链路” ,是传统身份系统最难处置的部门。


      传统IAM善于回覆“谁能够接见什么” ,但面对AI智能体 ,还必须持续回覆几个问题:是谁在驱动这个AI智能体 ,AI智能体此刻代表谁行动 ,它以什么运行身份执行 ,挪用了哪些工具 ,最终接见了哪些数据。也就是说 ,AI身份现实上是主体身份、运行身份、授权身份、工具身份和责任身份叠加形成的复称身份。


      DLP也类似。传统DLP更善于鉴别敏感内容是否被复造、上传或表发 ,但AI的数据流动可能发生在知识检索、高低文拼接、模型推理、工具挪用和了局天生等多个环节。若是只盯最终输出 ,很容易错过前面的越权接见和中央链路。因而 ,对AI的防护不能停在“账号是否合规”或“内容是否敏赣妆 ,还要把身份、高低文、工具、数据和行为关联起来。


      从您的观察看 ,企业在现实落地AI利用时 ,哪几个风险场景最容易“踩雷”?从现尝试业案例看 ,哪些风险场景在政企客户中已经真实发生 ,且传统安全工具无法覆盖?请分享具体的案例。


      薛恺:此刻企业真正容易出问题的 ,不愿定是模型自身 ,而是 AI智能体接入业务和数据之后产生的新链路。在项目互换和规划落地中 ,我们发现有这几类高频问题 ,这也正是瓦力游戏即将正式颁布的“AI数据安全一体化平台”沉点致力解决的方向。


      知识库越权。企业把内部造度、客户信息、业务资料接入AI副手以来 ,AI能检索到的数据领域往往比当前提问人的权限更大。若是检索阶段没有继承原罕见据权限 ,模型回覆自身可能没佑装违规作为” ,但它已经把用户本不该看到的内容沉新组织并输出了。


      天然说话转SQL。用户只说一句“把最近三个月的客户数据整顿出来” ,系统可能自动天生SQL、挪用数据库并返回了局。这里的风险不只是SQL是否正确 ,还蕴含查问领域是否过大、是否射中敏感字段、是否形成批量导出 ,以及这个操作到底应该归责给提议人、AI还是背后的服务账号。传统数据库审计能看到SQL ,却不定知路这条SQL是由哪个AI工作、哪段天然说话意图触发的。


      工具和MCP挪用失控。AI智能体一旦占有邮件、文件、数据库、API或自动化工具权限 ,一个被传染的高低文或者谬误指令 ,可能进一步触发查问、批改、发送等作为。单独看每次挪用都可能是合法接口 ,风险来自挪用组合和工作高低文。


      敏感数据进入表部AI。员工把文件、代码、报表直接交给表部 AI 工具处置 ,传统终端侧可能只看到一次网页接见或文件上传 ,却不知路这些内容进入了什么模型、用于什么工作、是否会持续被加工和传布。


      这也是我们此刻出格强调的一点:AI安全已经不能只问“模型说了什么” ,还要追问“AI代表谁做了什么、碰了什么数据、挪用了什么工具、了局去了哪里”。


      “AI资产看得清、AI身份分得清、AI接见管得住、AI风险识得准、AI行为可追忆” ,这个链条中 ,最大的挑战是什么?


      薛恺:AI智能体安全从“管账号”升级到“管行为” ,最大的挑战不是“鉴别身份”或者“纪录行为”自身 ,而是把身份和行为真正关联起来 ,并且放回业务高低文里判断。


      单独鉴别一个AI智能体、一个Token、一个服务账号 ,技术上能够解决;纪录API、SQL、工具挪用和模型输入输出 ,也并不陌生。难点在于现实中的一条AI工作链往往逾越多个对象:一个天然人提议要求 ,AI利用挪用模型 ,模型再挪用MCP工具 ,工具通过服务账号接见API或数据库 ,最后了局又经过模型加工后返回。若是这些日志依然分散在分歧系统里 ,安全人员看到的只是一堆彼此孤立的事务。


      所以我们更关注“高低文关联”。平台必要把用户身份、AI身份、运行账号、工具、API、数据库、敏感数据、接见功夫、挪用蹊径和最终输出关联到统一条工作链上。在这个基础上 ,再判断它是否切合当前人的权限、当前 AI 的业务用处、当前工作的合理领域 ,以及汗青行为基线。只有这样 ,能力鉴别出“每一步都合法 ,但组合起来越界”的风险。


      这也是从“管账号”到“管行为”的真正变动。传统IAM更左袒接见前的静态授权;AI身份治理要覆盖接见前、接见中和接见后:接见前确认身份和信赖状态 ,接见中凭据高低文做动态授权、脱敏、限频和阻断 ,接见后把输入、输出、数据接见和工具挪用形成齐全证据链。最终指标不是多网络日志 ,而是让一次AI行为可能被诠释、被追忆 ,也可能被措置。


      据“AI 数据安全一体化平台”资料介绍 ,该平台提到身份准入层、接见节造层、内容安全层、行为审计层、风险运营层等五层防护模型。这五层是像“洋从妆一样层层包裹 ,还是更像一个联动的“神经网络”?在现实部署中 ,企业最常从哪一层起头切入?


      薛恺:这五层防护模型 ,能够理解成一个安整个系 ,由于AI智能体的风险不会按层发生 ,真正有效地节造肯定是跨层联动的。


      身份准入层解决的是“这个接见主体到底是谁、当前环境是否可信”;接见节造层持续判断“它此刻能够接见什么数据、什么API、什么工具”;内容安全层关注输入和输出里有没有敏感信息、恶意指令或不合规内容;行为审计层把整个过程纪录下来 ,并鉴别异常蹊径和行为;风险运营层则把前面产生的身份、权限、内容和行为信息沉新关联 ,形成告警、工单、审批、阻断、复盘和战术优化。


      五层之间不是串行实现 ,而是持续反馈。好比行为审计发现某个AI智能体在短功夫内陆续扩大查问领域 ,这个风险能够反向影响它的信赖评分 ,接见节造层随即收紧权限或降低接见频率;若是内容安全鉴别到高敏数据 ,战术又能够触发起态脱敏或审批。这里真正沉要的是战术可能随着高低文变动 ,而不是预先写死一套规定。


      从现实建设看 ,企业通常不会一路头就钻营五层全数到位 ,更现实的做法是先从“看明显”起头:盘点AI利用、Agent、模型、MCP、知识库、API和工具 ,把身份与接见关系成立起来 ,再优先治理越权接见、敏感数据挪用、工具滥用等高风险场景;∈菀坏┏闪 ,后面的动态节造微风险运营才有靠得住凭据。


      您以为AI的遍及对数据安全市场带来了哪些结构性的变动?


      薛恺:AI对数据安全市场的影响 ,能够理解为“安全天堑被沉新画了一遍” ,而不只是增长一个新的产品品类。


      首先 ,身份治理睬发生显著变动。以前企业最关切的是员工账号、治理怨厮号和利用账号;接下来AI智能体、模型服务、MCP服务、插件和自动化工作会急剧增长。企业必须成立AI身份的登记、授权、运杏注调换、停用和责任归属机造 ,并且授权方式会从静态角色逐步转向基于工作、高低文微风险的动态节造。


      其次 ,数据接见节造会从“系统到系统”进一步细化到“AI智能体到工具、工具到数据”。API、MCP和各类工具挪用会成为新的高频接见蹊径。以来企业不仅要知路某个接口有没有被挪用 ,还要知路由哪个 AI智能体、代表谁、为了什么工作、在什么高低文下挪用 ,以及挪用了局是否超出了最初的工作天堑。


      与此同时 ,数据安全运营自身也会被AI沉构。此刻好多安全运营依然依赖人员在分歧系统之间查日志、找资产、核身份、判断风险、写汇报。以瓦力游戏数据安全多智体为代表的安全智能体的价值 ,不是单一代替几个操作步骤 ,而是把资产、身份、风险、措置、审核和汇报这些正本割裂的工作串成一个可持续协同的过程 ,把专家经验逐步沉淀成能够被挪用、复用和验证的能力。


      因而 ,我以为AI会给数据安全带来新的增长空间 ,但真正的变动不是“多卖一个AI安全产品” ,而是企业原有的数据安全能力必须沉新适配AI成为接见主体和执行主体之后的新环境。


      据瓦力游戏数据安全多智体的资料介绍 ,该资料提出了七大智能体协同的架构。从产品设计角度看 ,为什么要从“单一风险监测智能体”走向“多智体协同”?这个“AI数据安全一体化平台”具体是怎么利用的?


      薛恺:我们最早思虑AI在数据安全的利用时 ,是从“风险监测智能体”起头的 ,由于这是最直观的价值:把大量日志交给AI ,援手安全人员发现异常、诠释原因。但真正做下去以来发现 ,单一风险智能体很快会遇到天花板。它要判断一次接见是不是风险 ,必须知路资产敏感度、身份归属、已有权限、汗青行为;判断完以来 ,还涉及审核、措置、复盘和汇报。也就是说 ,风险研判天然依赖一整套高低文 ,不成能持久靠一个“大而全”的 Agent 独立实现。


      因而我们把数据安全运营拆成七类相对明确的专业角色:资产智能体掌管资产发现、目录和画像;身份智能体掌管身份鉴别、关联、动态鉴权和异常身份发现;风险监测智能体掌管高低文关联、行为分析微风险鉴别;响应智能体掌管风险汇聚、措置建议和反馈关环;审核智能体掌管SQL、API等高风险操作的语义审查与战术建议;汇报智能体掌管运营、监管和专项汇报天生;安全专家智能体则衔接产品、合规、行业经验和措置知识 ,为其他智能体和安全人员提供专业判断凭据。


      在AI数据安全一体化平台里 ,这些智能体不是七个谈天窗口 ,而是成立在统一套安全数据底座和知识库之上的协同角色。好比风险智能体发现某个 AI 身份异常接见敏感字段 ,能够挪用身份高低文确认责任主体和权限天堑 ,再由安全专家智能体补充风险诠释 ,审核智能体判断有关操作是否满足战术 ,响应智能体给出措置蹊径 ,最后由汇报智能体沉淀为事务汇报和运营了局。


      信息起源:信息安全与通讯保密杂志社


      瓦力游戏| 首页 -瓦力出品,必属精品 免费试用
      瓦力游戏| 首页 -瓦力出品,必属精品 服务热线
      瓦力游戏| 首页 -瓦力出品,必属精品

      顿时征询

      400-811-3777

      瓦力游戏| 首页 -瓦力出品,必属精品 回到顶部
      【网站地图】